สำนักงาน GAO ตั้งขึ้นโดยชื่อ General Accounting Office (สำนักงานบัญชีทั่วไป) ตามกฎหมายในปี 2464ซึ่งบังคับให้ผู้อำนวยการสำนักงาน "ตรวจสอบ ในสถานที่ของรัฐหรือที่อื่น เรื่องทุกอย่างเกี่ยวกับการรับ การจ่าย และการใช้เงินภาษี และให้รายงานและคำแนะนำต่อประธานาธิบดี...และรัฐสภาวิธีการใช้เงินภาษีที่ประหยัดและมีประสิทธิผลมากขึ้น"[2] ตามบทอธิบายนโยบายของสำนักงาน องค์กรดำเนินการเพื่อสนับสนุนรัฐสภาในหน้าที่ต่อรัฐธรรมนูญแห่งสหรัฐอเมริกา และเพื่อช่วยปรับปรุงประสิทธิภาพและให้เกิดภาวะรับผิดชอบของรัฐบาลกลางเพื่อประโยชน์ของประชาชนอเมริกัน

แม้ว่าประเทศอื่น ๆ จะมีสำนักงานรัฐบาลที่คล้าย ๆ กัน แต่องค์กรเหล่านั้นพุ่งความสนใจไปที่การตรวจสอบบัญชีโดยหลัก[ต้องการอ้างอิง] แต่ผู้ตรวจสอบของ GAO ไม่ได้ตรวจบัญชีอย่างเดียว แต่ตรวจสอบประสิทธิภาพต่าง ๆ ขององค์กรและนโยบายต่าง ๆ ด้วย

ตั้งแต่ตั้งขึ้น องค์กรบางครั้งเรียกว่า "สุนัขเฝ้าบ้านของรัฐสภา" และ "เพื่อนดีที่สุดของผู้จ่ายภาษี" เพราะเหตุที่ตรวจสอบและรายงานการตรวจสอบบ่อย ๆ ที่พลิกพบความสิ้นเปลืองโดยเปล่าประโยชน์และความไม่มีประสิทธิภาพของรัฐบาลสื่อมวลชนมักจะหันความสนใจไปที่สำนักงานโดยพิมพ์ข่าวเกี่ยวกับสิ่งที่พบ ข้อสรุป และข้อแนะนำขององค์กรสมาชิกรัฐสภาก็อ้างถึงงานสำนักงานบ่อย ๆ ในการแถลงข่าว ในการฟังความในรัฐสภา และในการอภิปรายกฎหมายในปี 2550 องค์การไม่แสวงหาผลกำไรองค์กรหนึ่ง จัด GAO เป็นอันดับสองขององค์กรรัฐบาลกลางที่น่าทำงานที่สุด และนิตยสารหนึ่งรวม GAO ไว้ในรายการองค์กรที่น่าทำงานที่สุดในเมืองวอชิงตัน ดี.ซี. จากองค์กรของรัฐ ของเอกชน และองค์การไม่แสวงหาผลกำไรทั้งหมด

GAO มีหัวหน้าเป็นผู้อำนวยการตรวจสอบการเงินการบัญชี (Comptroller General of the United States) ที่เป็นตำแหน่งมืออาชีพไม่จำกัดพรรคในรัฐบาลสหรัฐโดยได้รับการแต่งตั้งจากประธานาธิบดีสหรัฐ โดยความยินยอมและคำแนะนำจากวุฒิสภา ดำรงตำแหน่ง 15 ปี โดยต่อไม่ได้ในขณะที่ดำรงตำแหน่ง ผู้อำนวยการมีสิทธิจะฟ้องศาลเพื่อจะบังคับเอาข้อมูลจากองค์กรต่าง ๆ ของรัฐประธานาธิบดีไม่สามารถปลดตำแหน่งผู้อำนวยการได้ แต่รัฐสภาพมีสิทธิฟ้อง หรือออกกฎหมายที่ผ่านทั้งสภาผู้แทนราษฎรและวุฒิสภาให้ขับออกจากตำแหน่ง โดยมีเหตุผลโดยเฉพาะ ๆ[3]ตั้งแต่เริ่มสำนักงานมา มีผู้อำนวยการดำรงตำแหน่งเพียงแค่ 7 คน และไม่เคยมีประวัติถูกดำเนินการเพื่อถอนตำแหน่ง